هوش مصنوعی واقعی، می‌تواند دنیا را نابود کند. به فرض این که چیزی به نام هوش مصنوعی واقعی، اصولا ممکن باشد.

پاول فورد، نویسنده‌ی این مقاله در وب‌سایت MIT Technology Review، خاطره‌ای را این‌گونه آغاز می‌کند: "سال‌ها پیش، با یکی از دوستانم که مدیر یک استارت‌آپ بوده، قهوه می‌خوردیم. او به تازگی چهل ساله شده بود. پدرش بیمار بود و از ناحیه‌ی کمر، ناراحتی‌هایی داشت. دوست من، خودش را در آستانه‌ی دهه‌ی جدیدی از عمرش، غرق در زندگی می‌یافت. او گفت: «به من نخند، اما من روی تکینگی حساب می‌کردم.» "

دوست من در حوزه‌ی تکنولوژی کار می‌کرد. وی به چشم خود تغییراتی که باعث سریع‌تر شدن ریزپردازنده‌ها و شکل گرفتن شبکه‌ها شده بود را دیده بود. برای او، اتفاق مهمی نبود که باور داشته باشد قبل از میان‌سالی‌اش، هوش ماشین‌ها، از انسان‌ها فراتر خواهند رفت.(لحظه‌ای که آینده‌پژوهان به آن لحظه‌ی تکینگی می‌گویند.) یک هوش مصنوعی خارق‌العاده، اگر خیرخواه انسان‌ها باشد، در زمان کوتاهی، رمزهای ژنتیکی انسان را بررسی خواهد کرد و رمز جوانی ابدی را برای ما آشکار خواهد ساخت.  یا در حداقلی‌ترین حالت، خواهد توانست راه بهبودی درد کمر را مشخص کند.

ولی اگر هوش مصنوعی به وجود آمده، آن‌قدرها هم خیرخواه نبود چه؟ نیک بوستروم (Nick Bostrom)، فیلسوفی که انستیتوی بشریت در دانشگاه آکسفورد (Future of Humanity Institute at the University of Oxford) را مدیریت می‌کند، در کتابش با نام فوق هوش (Superintelligence)، سناریوی بالا را شرح داده است. کتاب وی باعث به وجود آمدن مناظرات و بحث‌های بسیاری درباره‌ی آینده‌ی هوش مصنوعی شده است. ماشینی را تجسم کنید که برنامه‌ریزی شده است تا حداکثر کلیپس کاغذ که ممکن است را تولید کند و ما می‌توانیم آن را «حداکثرکننده‌ی کلیپس کاغذ/paper-clip maximizer» بنامیم. حالا تصور کنید به هر دلیلی، همین ماشین، به شکل فوق‌العاده‌ای هوشمند شده است. با توجه به هدف این ماشین، ممکن است تصمیم بگیرد که کلیپس‌های کاغذی جدید و بیش‌تری تولید کند؛ تا آن‌جا که به سبک شاه میداس عملا همه چیزی را به کلیپس کاغذ تبدیل خواهد کرد.

ممکن است بگویید جای نگرانی نیست؛ می‌توانیم برنامه‌ریزی کنیم که به عنوان مثال دقیقا یک میلیون کلیپس کاغذ درست کند و بعد از کار بایستد. ولی اگر این ماشین، بعد از درست کردن کلیپس‌ها تصمیم گرفت عملکرد خودش را نیز بررسی کند، چه؟ آیا تعداد کلیپس‌ها را درست شمرده است؟ قطع به یقین، برای این کار نیاز است که ماشین، هوشمندتر شود. ماشین فوق‌هوش، نوعی مواد خام محاسباتی که هنوز ابداع نشده است را تولید می‌کند و به وسیله‌ی آن، هر شک و شبهه‌ای را بررسی خواهد کرد. اما هر شبهه‌ی تازه‌ای، شبهه‌های دیجیتالی جدیدی را حاصل خواهد شد و همین‌طور تا جایی ادامه پیدا می‌کند که هر چه روی زمین است به آن مواد خام محاسباتی تبدیل شود. البته به جز یک میلیون کلیپس کاغذ که ابتدا ساخته است!

نیک بوستروم باور ندارد که ماشین حداکثرکننده‌ی کلیپس کاغذ به طور دقیق عمل خواهد کرد. این یک آزمایش فکری است. آزمایشی که طراحی شده تا نشان دهد حتی سیستم‌های بسیار دقیق نیز در مهار کردن هوش مفرط ماشین‌ها، شکست می‌خورند. اما پروفسور بوستروم به این موضوع اعتقاد دارد که فوق‌هوش می‌تواند به وجود بیاید و مفید هم باشد. و البته وی فکر می‌کند که فوق هوش ممکن است تصمیم بگیرد که دیگر به انسان‌ها نیازی ندارد؛ یا از این قبیل رفتارها که باعث نابودی جهان خواهد شد. در همین راستا، عنوان فصل هشتم کتاب وی، این‌چنین انتخاب شده است: «آیا پیامدهای فوق‌هوش، به طور پیش‌فرض، نابودکننده و مخرب خواهد بود؟»

اگر این صحبت‌ها به نظرتان مضحک می‌آید، شما تنها نیستید که این‌طور فکر می‌کنید. منتقدان بسیاری نیز چنین فکر می‌کنند. از جمله رادنی بروکس (Rodney Brooks) از پیشگامان علم روباتیک، می‌گوید آن‌هایی که در ترس از یک هوش مصنوعی غیرقابل کنترل به سر می‌برند، در واقع درک درستی از این‌که کامپیوترها چه کار می‌کنند ندارند و متوجه نیستند وقتی می‌گوییم کامپیوترها دارند هوشمندتر می‌شوند منظورمان چیست. وی تاکید می‌کند که آن‌چه نیک بوستروم درباره‌ی چشم‌انداز هوش مصنوعی و فوق‌هوش تصویر کرده است، به آینده‌ی بسیار دور مربوط است و شاید هم به کل، غیرممکن باشد.

اما در عین حال، بسیاری از متفکران دیگر با بوستروم موافق‌اند و از همین حالا نگران آینده‌ی هوش مصنوعی هستند. چرا؟

اراده

این پرسش که «آیا کامپیوترها قادر به فکر کردن هستند؟» از ابتدای به وجود آمدن کامپیوترها، بر دنیای این ماشین‌ها، سایه افکنده بود. آلن تورینگ در سال ۱۹۵۰ میلادی تئوری‌ای مطرح کرده است که می‌گوید ماشین‌ها، می‌توانند مثل یک بچه مورد آموزش و تدریس قرار بگیرند. جان مک‌کارتی (John McCarthy) مخترع زبان برنامه‌نویسی لیسپ (LISP)، اصطلاح «هوش مصنوعی-Artificial Intelligence» را در سال ۱۹۵۰ میلادی ابداع کرده است. به موازات این که محققان حوزه‌ی هوش مصنوعی در دهه‌های ۱۹۶۰ و ۱۹۷۰ میلادی شروع به استفاده از کامپیوترها برای شناسایی عکس‌ها، ترجمه زبان‌های مختلف به یک‌دیگر و درک دستورالعمل‌ها در زبان معمولی و نه فقط در کدها کردند، این ایده که کامپیوترها نهایتا قادر به صحبت و تفکر-و بنابراین قادر به انجام اعمال شرورانه- خواهند بود، به جریان فرهنگی غالب نفوذ کرد. علاوه بر فیلم ۲۰۰۱: یک اودیسه فضایی (2001: A Space Odyssey) که غالبا به آن ارجاع داده می‌شود، فیلم دیگری در دهه ۱۹۷۰ با نام کلوسوس: پروژه‌ی فوربین (Colossus: The Forbin Project) تصوری را به جامعه القاء می‌کرد که نهایتا کامپیوترها، جهان را به مرز نابودی هسته‌ای و  زمستان هسته‌ای خواهند کشاند. و ۱۳ سال پس از این فیلم نیز، همین موضوع، دست‌مایه‌ی اثر دیگری به نام بازی جنگ (WarGames) شد. همین‌طور گذشت تا بالاخره  در سال ۱۹۷۳، آدم مصنوعی‌های فیلم جهان غرب (Westworld) به کلی دیوانه شدند و شروع به کشتار مردم دنیا کردند.

 زمانی که تحقیقات روی هوش مصنوعی، به نتایج بلندپروازانه‌ای که مد نظر بود، نرسید، بودجه‌های مربوط به این تحقیقات به شدت کاهش یافت و با این اتفاق، «زمستان هوش مصنوعی» آغاز شد. اما در همین شرایط نیز، شعله‌ی ماجراهای ماشین‌های هوشمند و هوش مصنوعی، در طول دهه‌های ۱۹۷۰ و ۱۹۸۰ میلادی، توسط نویسندگان، دانشمندان و کارآفرینان بسیاری، روشن نگه داشته شد. این گونه افراد شامل نویسندگان علمی تخیلی مانند ورنور وینج (Vernor Vinge) که مفهوم تکینگی (Singularity) را به عامه مردم شناساند، بودند. و هم‌چنین محققان فعال در عرصه‌ی روباتیک، هم‌چون هانس موراوک (Hans Moravec)، متخصص بینش کامپیوتری، و مهندس و هم‌چنین کارآفرینی مانند ری کرزویل (Ray Kurzweil) نویسنده‌ی کتاب «دوران ماشین‌های معنوی - The Age of Spiritual Machines» که در ۱۹۹۹ میلادی منتشر شده است، می‌شوند. در حالی که آلن تورینگ، یک نوع هوش مصنوعی شبیه به هوش انسانی را فرض قرار داده بود، افرادی مثل وینج، موراوک و کرزویل فراتر از این می‌اندیشیدند: هنگامی که یک کامپیوتر به طور مستقل قادر باشد برای دستیابی به اهدافش راه‌های مختلفی ابداع کند، بسیار محتمل خواهد بود که آن کامپیوتر، قادر به تفکر و اندیشیدن نیز باشد؛ و هنگامی که بتواند فکر کند، خواهد توانست نرم‌افزارهایش را اصلاح و خودش را هوشمندتر کند. خلاصه این که، چنین کامپیوتری، قادر خواهد بود به تنهایی سخت‌افزارهای خودش را طراحی کند.

آن طور که کرزویل می‌گوید، چنین اتفاقاتی، باعث به وجود آمدن دوره‌ی جدید و زیبایی خواهد شد. برخی ماشین‌ها، فهم و صبر کافی را خواهند داشت (که با تریلیونیم ثانیه اندازه‌گیری خواهد شد) تا بتوانند مشکلات برجسته‌ی نانوتکنولوژی و پرواز فضایی را برطرف سازند. این ماشین‌ها، شرایط بشر را بهبود خواهند بخشید. و برای ما شرایطی فراهم خواهند کرد که بتوانیم آگاهی‌ها و دانسته‌های خود را در یک قالب دیجیتالی جاودانه، نگه‌داری کنیم. و به این شکل، اطلاعات در سرتاسر کهکشان پخش خواهد شد.

از طرف دیگر، می‌توانید دقیقا نقطه‌ی مقابل این‌طور خوش‌بینی‌های زیبا را تصور کنید. استیون هاوکینگ (Stephen Hawking) هشدار داده است که در چنین شرایطی، به این دلیل که انسان‌ها قادر به رقابت با هوش مصنوعی بسیار پیشرفته نخواهند بود، ممکن است نژاد انسان از بین برود. الون ماسک (Elon Musk)، کارآفرین، پس از مطالعه کتاب فوق‌هوش، در حساب توییتر خود، چنین نوشته است که: «امیدوارم ما فقط حامل بیولوژیکی برای فوق‌هوش نباشیم. متاسفانه این مساله روزبه‌روز بیش‌تر محتمل می‌شود.» پس از آن، الون ماسک، مبلغ ۱۰ میلیون دلار به «انستیتو آینده زندگی» کمک مالی کرد. نه به این دلیل که در مرکز بوستروم گیج شده بود، بلکه این انستیتو مرکزی است که در آن «برای کاهش خطرات پیش روی بشر فعالیت می‌شود». فعالیت‌هایی که در اثر آن‌ها، «گسترش هوش مصنوعی در حد انسان» به وقوع خواهد پیوست.

هیچ‌کس تصور نمی‌کند چیزی مانند فوق‌هوش وجود داشته باشد. در واقع، هنوز هیچ‌ هدف همه جانبه و یا حتی روش مشخصی برای دستیبابی به هوش‌مصنوعی نداریم. پیشرفت‌های اخیر هوش مصنوعی، از دستیاران اتوماتیک مانند سیری در اَپل تا ماشین‌های بدون راننده‌ی گوگل، نمایان‌گر محدودیت‌های شدید تکنولوژی در این زمینه می‌باشند. هر دوی این تکنولوژی‌ها نمی‌توانند موقعیت‌هایی که قبلاً با آن مواجه نشده‌اند را کنترل کنند. شبکه‌های عصبی مصنوعی می‌توانند خودشان گربه‌ها را در عکس‌ها پیدا کنند، البته باید صدها هزار عکس به آن‌ها نشان داده شود و هنوز هم ممکن است در تشخیص گربه از کودکان دقت کافی را نداشته باشند.

در این‌جاست که افرادی مانند بروکس پایه‌گذار آیروبات (iRobot) و ریتینک روباتیک (Rethink Robotics) وارد عمل می‌شوند.حتی اگر تشخیص گربه توسط کامپیوتر–در مقایسه با قابلیت‌های کامپیوترهای اولیه، پیشرفت قابل ملاحظه‌ای باشد، هنوز هم کامپیوتر هیچ ارده‌ای ندارد. یک ماشین نمی‌تواند هیچ درکی درباره‌ی این‌که گربه چطور موجودی است و یا اتفاقات دیگری که در عکس رخ می‌دهد و افکار بی‌شماری که انسان‌ها دارند، داشته باشد.با این نگاه، هوش مصنوعی، احتمالا می‌تواند به تولید ماشین‌های هوشمند منجر شود؛ اما، این کار به تلاشی بیش از تصور افرادی مانند بوستروم، نیاز دارد. حتی اگر این اتفاق نیز رخ دهد، این هوش لزوماً منجر به ادراک نمی‌شود. بروکس اخیراً در سایت Edge.org نوشته است «اگر با مشاهده‌ی وضعیت کنونی هوش مصنوعی، تصور کنیم در حال دستیابی به فوق‌هوش هستیم، مانند زمانی است که کارکرد موثر مورتورهای احتراقی داخلی را ببینیم و با دیدن آن‌ها به این نتیجه برسیم که در حال دستیابی به تکنولوژی سرعتی بیشتر از سرعت نور هستیم.» او می‌گوید: «حداقل برای چند صد سال آینده، نگران وجود هوش مصنوعی شرور نباشید.»

بیمه نامه

حتی اگر شانس دستیابی به هوش مصنوعی زیاد باشد، این کار پروسه‌ای طولانی خواهد داشت و ممکن است کاری نامطمئن و غیر مسئولانه نیز باشد. استوارت جی راسل (Stuart J. Russell) استاد دانشگاه برکلی کالیفرنیا یکی از افرادی‌ست که با افکار و ایده‌های بوستروم در زمینه‌ی هوش مصنوعی، موافق است. راسل و پیتر نوروینگ (Peter Norvig)، همکار کورزویل در گوگل،  نویسنده کتابی به نام «هوش مصنوعی: رویکردی مدرن-Artificial Intelligence: A Modern Approach» هستند که برای دو دهه، کتاب استاندارد آموزشی در زمینه‌ی هوش مصنوعی بوده است.

راسل می‌گوید: «هستند افراد به اصطلاح روشن‌فکر بسیاری، که حتی یک مدرک و دلیل هم ندارند.» او همچنین به این نکته اشاره کرد که هوش مصنوعی در دهه‌های گذشته، پیشرفت فوق‌العاده‌ای داشته و درحالی‌که افکار عمومی این پیشرفت را با قانون مور (کامپیوترهای سریع‌تر کار بیشتری انجام می‌دهند) درک می‌کنند، در واقع آن‌چه هوش مصنوعی امروزه انجام می‌دهد، بسیار اساسی بوده است. او با تکیه بر روش‌هایی مثل یادگیری عمیق، برنامه‌ای برای کامپیوترها طراحی کرده که به طور خودکار درکشان از محیط اطرافشان را افزایش می دهند.

کتاب بوستروم روش‌هایی برای تطبیق کامپیوترها با نیازهای انسان پیشنهاد می‌کند. ما اصولاً به خدا می‌گوییم دوست داریم چگونه با ما رفتار شود.
به دلیل این‌که گوگل، فیسبوک، و سایر شرکت‌ها به شدت به دنبال تولید هوش مصنوعی و ماشین یادگیری هستند، او می‌گوید: «همیشه می‌گویم یکی از کارهایی که نباید انجام دهیم این است که بدون توجه به خطرات بالقوه‌ای که ممکن است وجود داشته باشد تمام تلاشمان را بر هوش مصنوعی متمرکز کنیم. این کار کمی احمقانه به نظر می‌رسد.» راسل این‌طور مقایسه کرده است که: «این کار مثل مطالعه هم‌جوشی است. اگر از یک محقق هم‌جوشی بپرسید چه کاری انجام می‌دهند، می‌گویند روی محدویت‌کننده کار می‌کنند. اگر انرژی نامحدود می‌خواهید بهتر است واکنش هم‌جوشی را محدود کنید.» او می‌گوید پس شما نیز اگر هوش مصنوعی می‌خواهید باید بدانید چطور کامپیوترها را متناسب با نیازهای انسان طراحی کنید.

کتاب بوستروم یک پروپووزال پژوهشی برای انجام این کار است. فوق‌هوش خداگونه است؛ اما آیا می توان با خشم یا با عشق، به آن، جان بخشید؟ این کار به ما مهندسان بستگی دارد. مانند سایر والدین ما نیز باید ارزش‌ها را به کودکمان یاد بدهیم، اما نه هر ارزشی؛ بل‌که ارزش‌های والای انسانی. ما اصولاً به خدا می‌گوییم چگونه با ما رفتار شود. چطور ادامه دهیم؟

بوستروم به شدت تحت‌تاثیر نظریه‌ی متفکری به نام الیزر یودکووسکی (Eliezer Yudkowsky) است. یودکووسکی درباره «خواست استقرایی منسجم» (coherent extrapolated volition) که ناشی از اجماع بهترین ویژگی‌های همه‌ی مردم است، صحبت می‌کند. ما امیدواریم هوش مصنوعی، ثروت، شادی و زندگی بی‌نقصی را که می‌خواهیم برای ما مهیا کند. مثلاً کمر دردمان را درمان کند و به ما بگوید چگونه به مریخ برویم. و چون انسان‌ها هرگز کاملاً موافق چیزی نیستند، گاهی لازم است برای خودمان تصمیم بگیریم تا به طور کلی تصمیماتی که مناسب بشریت هستند، گرفته شوند. چطور می‌توان این ارزش‌ها را برای هوش مصنوعی برنامه‌ریزی کرد؟ چه نوع محاسباتی می‌توانند این ویژگی‌ها را تعریف کنند؟ بوستروم معتقد است مشکلاتی وجود دارد که محققان باید اکنون آن‌ها را حل کنند. بوستروم می‌گوید این کار ضروری‌ترین مسئولیت عصر ما است.

از نظر مردم دلیلی برای ترسیدن از روبات‌ها وجود ندارد. هنوز هم بسیاری از کشورهای دنیا برای هوشمندتر کردن کامپیوترهای شرکتشان سرمایه‌گذاری می‌کنند و یک هوش مصنوعی واقعی باعث سود زیادی برای این شرکت‌ها می‌شود. همچنین این شرکت‌ها باید با مضرات بالقوه‌ی آن نیز آشنا شوند و روش‌های کم کردن این مضرات را پیدا کنند.

این پیشنهاد تا حدودی متفاوت‌تر-بدون هیچ ادعایی درباره پیشرفت هوش مصنوعی- مبنای نامه‌ای سرگشاده در وب سایت موسسه آینده زندگی (Future of Life Institute)،  است. موسسه‌ای که جایزه‌ی ماسک (Musk) را دریافت کرده است. این نامه، به جای هشدار درباره‌ی مشکلات قریب‌الوقوع، خواستار تحقیقات بیشتری درباره مزایای هوش مصنوعی و اجتناب از مشکلات بالقوه‌ی آن شده است. این متن نه تنها توسط افرادی مانند استیون هاوکینگ، ماسک و بوستروم امضا شده، بل‌که توسط تعدادی از دانشمندان برجسته‌ی کامپیوتر، ازجمله دنیس هاسابیس از پژوهشگران برجسته هوش مصنوعی، نیزامضا شده است. از همه‌ی این‌ها که بگذریم، اگر آن‌ها هوش مصنوعی را به نحوی ایجاد کنند که دارای ارزش‌های والای انسانی نباشد، پس آن‌قدر باهوش نبوده‌اند که مخلوق خود را کنترل کنند.